Constraint Tax in Open-Weight LLMs: An Empirical Study of Tool Calling Suppression Under Structured Output Constraints
开放权重LLM中的约束税：结构化输出导致工具调用抑制的实证研究
🧭 Agent工具调用与结构化输出约束交互 ★ 深度解读
Focus AI Center, Focus Technology Co., Ltd. · Nanjing University of Science and Technology
多个开源模型在工具调用与JSON Schema约束共存时工具调用被完全抑制，根因是语法解码掩码排除工具token，并提出两阶段执行缓解
📌 工作参考价值（4 点）
- 在电商/推荐Agent中，若同时启用工具调用（如检索数据库、调用API）与JSON Schema结构化输出，需警惕工具调用被静默抑制的风险。生产环境可考虑解耦：先执行工具调用获取结果，再让模型生成符合schema的最终回复，避免约束在解码层互相冲突。
- 推理框架选型时注意：SGLang/vLLM等通过语法掩码强制schema合规，会从logits层面排除工具调用token（如XML标签的<）。若必须同时约束，可探索允许工具调用token的混合语法，或使用非掩码的schema引导（如仅靠prompt约束）。
- 评估Agent系统不能仅独立测试工具使用和格式合规。必须设计联合约束下的端到端成功率测试，监控工具调用率与抑制率，防止上线后出现“格式合规但未获取外部数据”的隐性失效。
- 微调（SFT、GRPO等）无法绕过掩码层限制，因为权重优化在掩码之前。该发现表明，常规对齐手段无法解决此问题，需要从推理栈层面进行工程化防护。